Năm 360, anh họ của Tạ An là Tạ Vạn làm Tây trung lang tướng, bị thua trận rồi bị phế làm dân thường. Dòng họ Tạ không còn người nào lĩnh chức quan lớn. Từ thời điểm đó, Tạ An mới bắt đầu tái xuất, được phong làm Tư mã trong phủ của thái úy Hoàn Ôn. Hoàn Ôn là đại tướng nắm quyền lớn trong tay, có mưu đồ cướp ngôi nhà Tấn nhưng Tạ An không đồng tình với Hoàn Ôn, thành ra lập trường chính trị đối lập rõ rệt, nhưng hai bên vẫn đánh giá cao về nhau[7]. Về sau Hoàn Ôn muốn giết Tạ An, nhưng nghe nhiều người xưng tụng ông nên quyết định không ra tay.

Không lâu sau Tạ Vạn chết, Tạ An xin từ chức chịu tang. Về sau ông được Thừa tướng-Cối Kê vương Tư Mã Dục (tức Giản Văn Đế về sau), tiến cử là Ngô Hưng thái thú. Từ khi ông nhận chức ở đó, bách tính được an cư lạc nghiệp. Mấy năm sau, Tạ An được thăng làm thị trung.

Quyền hành của Hoàn Ôn trong triều ngày càng lớn, năm 370, Hoàn Ôn sau lần bắc phạt về kinh đã phế truất Tấn đế Tư Mã Dịch, lập Cối Kê vương Tư Mã Dục (Giản Văn đế)[8][9][10], vu tội cho Vũ Lăng vương Tư Mã Hi[11], làm khuynh đảo triều đình. Tạ An cùng Vương Thản Chi, Vương Bưu liên hợp nhằm chống lại thế lực của Hoàn Ôn. Sang năm 372, Tấn Giản Văn Đế ốm nặng, Hoàn Ôn bèn tiến cử Tạ An đến thụ cố mệnh. Giản Văn Đế ban đầu muốn nhường ngôi cho Hoàn Ôn, bèn hạ lệnh nói: Nếu con nhỏ có thể phò tá thì phò tá, còn nếu không thì cứ tự giữ lấy[12]. Vương Thản Chi lại đốt bỏ di chiếu, khóc nói với hoàng đế: Thiên hạ là của Tuyên, Nguyên, không thể do một tay bệ hạ định đoạt[13]. Giản Văn Đế bèn đổi chiếu cho Hoàn Ôn phụ chính giúp con nhỏ, theo việc của Gia Cát Võ hầu và Vương Đạo ngày trước.